메뉴

#필즈 메달

HN
Hacker News • 13일 전
IMP 5

수학계와 AI 기업의 목표는 모두 잘못 정렬되어 있다

필즈 메달 수상자 25명이 '수학 분야 AI의 심각한 정렬 오류'라는 성명을 발표하며 AI 기업의 목표가 수학 공동체의 목표와 심각하게 어긋난다고 비판했다. 그러나 저자는 수학 공동체 자체도 '개념적 이해와 통찰'이라는 목표와 정렬되어 있지 않다고 반박하며, 나비에-스토크스 문제와 관련된 유능한 수학자들이 역사적으로 어떻게 학계로부터 보호받지 못했는지를 사례로 든다.

수학 AI 정렬 필즈 메달
TD
The Decoder • 15일 전
IMP 7

수학적 AI 안전 연구소, 암호 해독 불가 증명처럼 AI 안전성 증명 추구

필즈 메달 수상자인 캐나다 수학자 제이콥 치머먼이 '수학적 AI 안전 연구소(MAISI)'를 설립했다. 이 연구소는 암호학자가 암호 체계의 해독 불가능성을 수학적으로 증명하듯, AI 시스템의 안전성을 수학적 증명으로 입증하는 것을 목표로 하며, 영지식 증명(zero-knowledge proof) 등의 도구를 활용할 계획이다.

AI 안전 MAISI 영지식 증명